오픈소스 유지보수자가 AI로 대량 생성된 PR, 이슈 분석, 보안 취약점 리포트가 GitHub 활동 그래프를 채우려는 목적으로 쏟아져 들어온다고 지적한다. Claude가 오타 수정 PR을 자동 생성하고 공동 저자 표시까지 삽입하는 사례가 늘면서, 유지보수자는 실질적 개선이 없는 PR을 닫고 저심각도 보고에 CVE 발급을 거부하며 대응하고 있다. AI를 활용한 GitHub 신호 게임화(gaming)가 오픈소스 기여 문화를 오염시키는 문제로 부상했다.
AI가 생성한 가짜 동물 영상과 사진이 인터넷에서 가장 큰 기쁨과 연민의 원천이던 동물 콘텐츠를 오염시키고 있습니다. 실종 반려동물 사기에 AI 이미지가 악용되는 사례와, 진짜 동물 관련 저널리즘 단체들이 신뢰를 지키기 위해 고군분투하는 상황이 소개됩니다. 가짜 콘텐츠가 더 저렴하게 대량 생산되면서 진짜 콘텐츠를 밀어내고 있어, 콘텐츠 신뢰성 검증과 출처 인증 기술의 중요성이 커지고 있습니다.
링크드인이 저품질 AI 생성 콘텐츠(AI slop)를 대폭 제한하는 새로운 정책과 탐지 시스템을 도입했습니다. 이는 표면적으론 콘텐츠 품질 개선을 위한 조치지만, 본질적으로는 이미 알고리즘 피드 통제력을 잃었다는 것을 시인하는 셈입니다. 특히 AI를 적극적으로 밀어온 모회사 마이크로소프트의 모순적인 행보와 함께, 가짜 계정 및 자동화 댓글을 걸러내는 기술적 조치가 주목받고 있습니다.
AI 탐지 스타트업 팬그램 랩스(Pangram Labs)가 99.98%의 높은 정확도를 자랑하는 AI 탐지 크롬 확장 프로그램을 공개했습니다. 이 도구는 소셜 미디어와 커뮤니티를 실시간으로 스캔하여 인터넷 상에 범람하는 AI 생성 콘텐츠(AI Slop)를 색출해 내며, 온라인상의 신뢰도를 검증하는 데 중요한 역할을 할 것으로 보입니다.
조지 오웰의 소설 1984에 등장하는 인간의 개입 없이 대중문화를 양산해내는 기계 '작시기(Versificator)'가 오늘날의 대형 언어 모델(LLM)과 저품질 콘텐츠인 'AI Slop'을 정확히 예견했다는 분석입니다. 기형적인 쓰레기 문화가 범람하는 현상은 권력자의 악의보다는 대중의 수동적이고 비판 없는 소비 성향을 반영한다는 점에서 뼈아픈 통찰을 제시합니다.